手軽にRAG（のようなもの）に対応したチャットボットを作れるZendeskのAIエージェントを試してみる

#Zendesk

#RAG

入井啓太

2024.08.31

こんにちは、ゲームソリューション部の入井です。
今回は、RAGのような機能を持ったチャットボットを簡単に作成できるZendeskのAIエージェント機能についてご紹介します。

RAGとは

RAGは、ChatGPTなどの大規模言語モデル（LLM）の回答を最適化する仕組みです。Retrieval-augmented generationの略で、日本語では「検索拡張生成」と呼ばれています。

LLMは学習済みの内容しか正しく回答できず、学習していない内容について聞かれると、嘘や間違った情報を本当のように回答する、いわゆるハルシネーションという現象を起こすことが利用上の注意点としてよく言われています。

RAGは、この問題を解決するために開発された技術で、LLMに学習済み以外の情報を追加で渡すことで、LLMが知らないことについての質問でも正しい回答を行えるようになります。
RAGを導入することで、あまり有名でない製品の使い方といった元のLLMでは学習していない可能性が高い内容や、社内の経理申請手順などの非公開情報についての質問も、あらかじめ正しいデータソースが与えられていれば回答できるようになります。

RAGの仕組みを作るのは大変

非常に便利なRAGは、生成AI技術を業務の効率化に活かす具体的な手段として注目されていますが、導入するためには課題があります。それは、RAGの仕組みを導入するにはある程度の労力と技術的知見が必要となるという点です。

RAGによって独自の回答を生成できるようにするには、LLMへ渡すプロンプトにユーザーの質問だけでなくその質問に関連する情報を付ける必要があります。そして、質問の関連情報を作成するには、独自のデータソースと関連付けたAmazon Kendraなどの検索サービスの利用が必要で、これらの環境をクラウド技術等への知見無く整えるのは難しいです。

最近では、DifyのようなRAG環境作りを簡略化できるツールも出てきていますが、それでもある程度の技術的スキルが求められます。

RAGは顧客サポートの現場などで力を発揮しやすいですが、例えばコールセンター等のマネージャーが業務効率化を図るためにRAGの仕組みを導入してみようと思っても、上記のような課題から気軽に試す事は難しいのが現状です。

ZendeskのAIエージェントの回答生成機能

上記のような課題を解決できるのがZendeskのAIエージェント機能です。この機能を使えば、特に専門知識が無くてもRAGのような機能を持つチャットボットを作ることができます。

AIエージェントとは、ZendeskのAIボット機能の名称であり、いくつか持つ機能の中に自動回答生成機能が含まれています。この機能は、ユーザーからの質問に対して、Zendeskで事前に作成したFAQサイト記事の内容を基に自動的にボットが回答を生成します。これにより、特定の商品の使い方といった具体的な質問にも対応可能なボットを簡単に作ることができます。

ただ、RAGの「ような」機能と上で書いたのは、よく言われるRAGと比較すると機能に制限があるからです。例えば、データソースがZendeskのFAQ記事に限定されており、他の情報源を学習させることはできません。また、FAQサイト記事に回答のための情報が無い質問や、あからじめ設定した対応フローに無い対応をすることはできないという制限もあります。